Can we take a recurrent neural network (RNN) trained to translate between languages and augment it to support a new natural language without retraining the model from scratch? Can we fix the faulty behavior of the RNN by replacing portions associated with the faulty behavior? Recent works on decomposing a fully connected neural network (FCNN) and convolutional neural network (CNN) into modules have shown the value of engineering deep models in this manner, which is standard in traditional SE but foreign for deep learning models. However, prior works focus on the image-based multiclass classification problems and cannot be applied to RNN due to (a) different layer structures, (b) loop structures, (c) different types of input-output architectures, and (d) usage of both nonlinear and logistic activation functions. In this work, we propose the first approach to decompose an RNN into modules. We study different types of RNNs, i.e., Vanilla, LSTM, and GRU. Further, we show how such RNN modules can be reused and replaced in various scenarios. We evaluate our approach against 5 canonical datasets (i.e., Math QA, Brown Corpus, Wiki-toxicity, Clinc OOS, and Tatoeba) and 4 model variants for each dataset. We found that decomposing a trained model has a small cost (Accuracy: -0.6%, BLEU score: +0.10%). Also, the decomposed modules can be reused and replaced without needing to retrain.

Fairness of machine learning (ML) software has become a major concern in the recent past. Although recent research on testing and improving fairness have demonstrated impact on real-world software, providing fairness guarantee in practice is still lacking. Certification of ML models is challenging because of the complex decision-making process of the models. In this paper, we proposed Fairify, an SMT-based approach to verify individual fairness property in neural network (NN) models. Individual fairness ensures that any two similar individuals get similar treatment irrespective of their protected attributes e.g., race, sex, age. Verifying this fairness property is hard because of the global checking and non-linear computation nodes in NN. We proposed sound approach to make individual fairness verification tractable for the developers. The key idea is that many neurons in the NN always remain inactive when a smaller part of the input domain is considered. So, Fairify leverages whitebox access to the models in production and then apply formal analysis based pruning. Our approach adopts input partitioning and then prunes the NN for each partition to provide fairness certification or counterexample. We leveraged interval arithmetic and activation heuristic of the neurons to perform the pruning as necessary. We evaluated Fairify on 25 real-world neural networks collected from four different sources, and demonstrated the effectiveness, scalability and performance over baseline and closely related work. Fairify is also configurable based on the domain and size of the NN. Our novel formulation of the problem can answer targeted verification queries with relaxations and counterexamples, which have practical implications.

Machine Learning (ML) software has been widely adopted in modern society, with reported fairness implications for minority groups based on race, sex, age, etc. Many recent works have proposed methods to measure and mitigate algorithmic bias in ML models. The existing approaches focus on single classifier-based ML models. However, real-world ML models are often composed of multiple independent or dependent learners in an ensemble (e.g., Random Forest), where the fairness composes in a non-trivial way. How does fairness compose in ensembles? What are the fairness impacts of the learners on the ultimate fairness of the ensemble? Can fair learners result in an unfair ensemble? Furthermore, studies have shown that hyperparameters influence the fairness of ML models. Ensemble hyperparameters are more complex since they affect how learners are combined in different categories of ensembles. Understanding the impact of ensemble hyperparameters on fairness will help programmers design fair ensembles. Today, we do not understand these fully for different ensemble algorithms. In this paper, we comprehensively study popular real-world ensembles: bagging, boosting, stacking and voting. We have developed a benchmark of 168 ensemble models collected from Kaggle on four popular fairness datasets. We use existing fairness metrics to understand the composition of fairness. Our results show that ensembles can be designed to be fairer without using mitigation techniques. We also identify the interplay between fairness composition and data characteristics to guide fair ensemble design. Finally, our benchmark can be leveraged for further research on fair ensembles. To the best of our knowledge, this is one of the first and largest studies on fairness composition in ensembles yet presented in the literature.

深度神经网络（DNN）用于各种应用中。但是，与任何软件应用程序一样，基于DNN的应用程序受到错误的影响。以前的工作观察到DNN错误修复模式与传统错误修复模式不同。此外，由于具有多种选项来修复它们，因此由于具有多种选项的错误错误，那些错误模型是非微不足道的。为了支持开发人员在定位和修复错误中，我们提出DeepDiagnosis，一种定位故障的新型调试方法，报告错误症状，并提出了DNN程序的修复。在第一阶段，我们的技术监视培训模型，定期检查八种类型的错误条件。然后，在问题的情况下，它报告包含足够信息的消息来对模型执行可操作的维修。在评估中，我们通过GitHub和Stack Overflow彻底检查444型号-53现实世界，并由Autotrainer策划391。与UMLUAT和Deeplocalize相比，DeepDiagnosis提供卓越的准确性。我们的技术比Autotrainer更快，用于故障定位。结果表明，我们的方法可以支持其他类型的模型，而最先进的人才能够处理分类。我们的技术能够在培训期间报告在训练期间不明显作为数值错误的错误。此外，它可以提供用于修复的可操作的见解，而Deeplocalize只能在训练期间报告导致数值误差的故障。与其他方法相比，DeepDiagnosis表现出故障检测，错误本地化和症状的最佳能力。

今天深入学习广泛用于构建软件。深度学习的软件工程问题是找到一个适当的卷积神经网络（CNN）模型，为开发人员可能是一个挑战。最近的自动化工作，更精确的神经结构搜索（NAS），由自动KERAS等工具体现，旨在通过基本上将其视为起始点是默认CNN模型的搜索问题来解决这个问题，以及该CNN模型的突变允许探索CNN模型的空间以找到最适合问题的CNN模型。这些作品在生产高精度CNN模型方面取得了重大成功。然而，有两个问题。首先，NAS可以非常昂贵，通常需要几个小时才能完成。其次，NAS生产的CNN模型可能非常复杂，使得更容易理解它们和肋骨训练它们。我们提出了一种对NAS的新方法，而不是从默认的CNN模型开始，初始模型是从GitHub提取的模型的存储库中选择的。与默认模型相比，直觉是解决类似问题的开发人员可能已经开发出更好的起点。我们还在野外分析了CNN模型的常见层模式，以了解开发人员改善其模型的变化。我们的方法在NAS中使用通常发生的变化变化。我们已经扩展了自动KERAS来实现我们的方法。我们的评估使用8个顶级投票问题来自滑动的拍卖，包括图像分类和图像回归显示，给出了相同的搜索时间，而不会损失准确性，MANAS产生的模型，比Auto-Keras的型号更少为42.9％至99.6％。在GPU上基准测试，Manas的模型训练比汽车keras的型号快30.3％至641.6％。

从头划线训练是构建基于卷积神经网络（CNN）模型的最常见方法。如果我们通过重用部分从以前构建的CNN模型来建立新的CNN模型，该怎么办？如果我们通过用其他部件更换（可能有故障）零件可以改进CNN模型，该怎么办？在这两种情况下，代替培训，我们是否可以确定对模型中的每个输出类（模块）负责的部分，并仅重用或仅重用所需的输出类来构建模型？事先工作已经提出将基于密集的网络分解为模块（每个输出类的一个），以实现各种场景中的可重用性和可替换性。然而，这项工作仅限于密集层，并基于连续层中节点之间的一对一关系。由于CNN模型中的共享架构，之前的工作无法直接调整。在本文中，我们建议将用于图像分类问题的CNN模型分解为每个输出类的模块。这些模块可以进一步重复使用或替换为构建新模型。我们已经评估了使用CiFar-10，CiFar-100和Imagenet微型数据集的方法，具有三种Reset模型的变化，发现能够分解具有小的成本（1.77％和0.85％，最高1和前5个精度为1.77％和0.85％。分别）。此外，通过重新使用或更换模块构建模型可以进行2.3％和0.5％的平均精度损失。此外，与从头划痕训练模型相比，重新使用和更换这些模块将CO2E发射降低〜37次。

不断增加的材料科学文章使得很难从已发表的文献中推断化学结构 - 培训关系。我们使用自然语言处理（NLP）方法从聚合物文献的摘要中自动提取材料属性数据。作为我们管道的组成部分，我们使用240万材料科学摘要培训了一种语言模型的材料，该材料模型在用作文本编码器时，在五分之三命名实体识别数据集中的其他基线模型都优于其他基线模型。使用此管道，我们在60小时内从约130,000个摘要中获得了约300,000个物质记录。分析了提取的数据，分析了各种应用，例如燃料电池，超级电容器和聚合物太阳能电池，以恢复非平凡的见解。通过我们的管道提取的数据可通过https://polymerscholar.org的Web平台提供，该数据可方便地定位摘要中记录的材料属性数据。这项工作证明了自动管道的可行性，该管道从已发布的文献开始，并以一组完整的提取物质属性信息结束。

自2016年成立以来，Alexa奖计划使数百名大学生能够通过Socialbot Grand Challenge探索和竞争以发展对话代理商。挑战的目的是建立能够与人类在流行主题上连贯而诱人的代理人20分钟，同时达到至少4.0/5.0的平均评分。但是，由于对话代理商试图帮助用户完成日益复杂的任务，因此需要新的对话AI技术和评估平台。成立于2021年的Alexa奖Taskbot Challenge建立在Socialbot Challenge的成功基础上，通过引入交互式协助人类进行现实世界烹饪和做自己动手做的任务的要求，同时同时使用语音和视觉方式。这项挑战要求TaskBots识别和理解用户的需求，识别和集成任务和域知识，并开发新的方式，不分散用户的注意力，而不必分散他们的任务，以及其他挑战。本文概述了Taskbot挑战赛，描述了使用Cobot Toolkit提供给团队提供的基础架构支持，并总结了参与团队以克服研究挑战所采取的方法。最后，它分析了比赛第一年的竞争任务机器人的性能。

口服食物挑战（OFC）对于准确诊断患者的食物过敏至关重要。但是，患者不愿接受OFC，对于那些这样做的患者，在农村/社区医疗保健环境中，对过敏症患者的使用率有限。通过机器学习方法对OFC结果的预测可以促进在家中食品过敏原的删除，在OFC中改善患者和医师的舒适度，并通过最大程度地减少执行的OFC的数量来节省医疗资源。临床数据是从共同接受1,284个OFC的1,12例患者那里收集的，包括临床因素，包括血清特异性IgE，总IgE，皮肤刺测试（SPTS），症状，性别和年龄。使用这些临床特征，构建了机器学习模型，以预测花生，鸡蛋和牛奶挑战的结果。每种过敏原的最佳性能模型是使用凹入和凸内核（LUCCK）方法创建的，该方法在曲线（AUC）（AUC）下分别用于花生，鸡蛋和牛奶OFC预测为0.76、0.68和0.70， 。通过Shapley添加说明（SHAP）的模型解释表明，特定的IgE以及SPTS的Wheal和Flare值高度预测了OFC结果。该分析的结果表明，机器学习有可能预测OFC结果，并揭示了相关的临床因素进行进一步研究。

我们开发了BenchPress，这是第一个用于编译器的ML基准生成器，它是在源代码的功能空间表示中可检测的。卧推通过在空序列或现有序列的任何部分中添加新代码，通过共同观察其左和右下文，从而综合编译函数，从而达到出色的汇编速率。卧推操纵基准的生成迈向了所需的目标特征，这对于最先进的合成器（或实际上人类）不可能达到。与（a）clgen-最先进的ML合成器，（b）Clsmith Fuzzer，（c）Srciror Mutator或（d）人写代码相比来自Github。 Benchpress是第一个通过主动学习搜索功能空间的生成器，以生成可以改善下游任务的基准。我们展示了Grewe's等人如何使用台式。与其他技术相比，CPU与GPU启发式模型在台式基准测试中进行训练时可以获得更高的加速。卧推是一个强大的代码生成器：其生成的样品以86％的速度编译，而Clgen的2.33％则以86％的速度编译。从一个空的固定输入开始，台式比CLGEN产生的10倍，可汇编的OpenCL基准测试，这些基准比Clgen更大，并且更具多样性。